생각하는 모든 것은 욕망이다.
언어모델이 할루시네이션을 일으키는 이유

의식은 무의식의 확장이다.

1. 의식은 생명체에게만 있다.
2. 생명체는 자아를 유지하고 번식하기 위해 에너지를 필요로한다.
3. 에너지를 탐색하고 섭취하기 위해서는 의식이 필요하다.

여기서 약한 의식부터 복잡한 의식으로의 여정을 생각해볼 수 있다.

털납작벌레

털납작벌레는 무작위로 움직이는 아주 작은 생명체이다. 무작위로 움직이는데에는 세계에 대한 인식도 필요없고 의식도 필요 없다. 다만, 음식이 있을 때에는 천천히 움직이고, 음식이 없을 때에는 빠르게 움직인다. 이 벌레가 세상과 상호작용하는 방식은 음식의 유무이다. 의식이 세상과 상호작용하는 무언가를 뜻한다면, 이 또한 약한 의식의 일종이다.

폴라나리아

세상과 상호작용하기 위해서는 목적성을 띠어야 한다. 털납작벌레는 1차원적인 상호작용을 하였다. 만약 더 잘 상호작용을 하기 위해서는 방향성을 가져야 한다. 음식처럼 좋은 것들을 향해 다가가고, 좋지 않은 것에서는 멀어지는 것이다. 그것을 2차원적인 상호작용이라 할 수 있다.

폴라나리아는 배고파지면, 화학수용체를 통해 음식냄새가 가장 강한 쪽으로 움직인다. 그러다 배가 부르면 어둡고 안전한 은신처로 돌아가 소화한다. 배가 다시 고파질때까지. 세계와 상호작용의 정도가 의식의 세기라면, 폴라나리아는 음식의 냄새를 통해 세계를 인지함으로서 더 강한 의식을 갖는 것이다.

나나니벌

그 다음 단계는 시각이 있는 것이다. 눈 같은 시각기관은 목표를 보고, 집중할 수 있게 해준다(3차원적). 하지만 이 때에도 자아는 지각되는 음식만 쫓을 수 있다. 예컨대 닭을 쫓다가 닭이 나무 뒤로 숨으면, 쫓을 수 없게 된다.

나나니벌 암컷은 굴을 파고 먹이로 삼을 애벌레를 찾아 가져온 다음, 굴 안에 문제가 없는지 살펴보고 나와서 애벌레를 굴 속으로 끌고 들어간다. 굴 바깥에 애벌레가 있다는 상태를 기억한다. 그러나 벌이 굴 속을 확인하는 도중 곤충학자가 애벌레를 치워버린다면, 나나니벌은 다시 애벌레를 잡아와서 굴 속을 확인한다. 곤충학자가 또 치워버리면 또 잡아온다. 이 개입을 수십번 반복해도 나나니벌은 여전히 학습하지 못하고, 같은 행동을 반복한다.

나나니벌은 분명히 세계를 지각하고 기억하며 상호작용을 하지만, 자신을 둘러싼 세계에 대해 눈에 보이는 것 이상의 상호작용을 하지 못한다. 자신을 방해하는 어떠한 존재가 눈에 보이지 않는 한(지각되지 않는 한) 상상할 수 없는 것이다.

덤불어치

그렇다면 지각되지 않는 대상을 상상하려면 어떻게 해야 할까? 그러기 위해선 먼저 보이지 않는 것을 존재한다고 상상할 수 있는 내면세계가 존재해야 할 것이다. 바로 대상 영속성이다. 대상 영속성은 어떤 존재가 지각 범위 밖으로 사라졌을 때, 여전히 존재한다고 생각할 수 있는 능력이다. (인간 아기는 8개월쯤 이 능력을 얻고, 병아리는 생후 하루쯤 이 능력을 얻는다.)

이러한 능력은 기억력이 전제되어야 한다. 기억한다는건 시간을 인지할 수 있다는 것이다. 시간을 인지한다면, 미래를 기대하고 현재를 인내하는 보상 유예가 가능해진다.

덤불어치는 나중을 위해 음식을 숨기고, 저장한다. 심지어 누군가 지켜보고 있었다는 것을 알게되면 숨긴 음식을 다른 곳으로 옮기기도 한다. 현재에 지각되지 않는 미래의 사건을 상상하고 예방할 수 있다는 것이다. 이것은 타자에 대한 이해를 필요로 한다. 공감능력을 가질 수 있는 것이다.

의식의 기원

이쯤되면 확실히 의식이 존재한다고 말할 수 있을 것이다. 이처럼 우리의 의식이란, 생명체의 목적인 섭식과 번식의 욕망으로부터 기원하였고, 문제를 해결하는 과정을 통해 진화하였다고 할 수 있다.

인간은 언어를 통해 세계를 표현할 수 있다. 보이지 않는 것을 설명하고 심지어 존재하지 않는 것조차 상상하고 마침내 만들어낼 수조차 있다. 문제를 방지하기 위해 근본 원리를 깨우치고 가설을 세우며 진리에 도달할 수 있는 가능성을 지니고 있다.

결론

욕망을 가진 존재로서 자연은 거대한 문제이며, 문제를 해결하기 위해 고민하고 발전하는 과정에서 감각이 발달하고, 지각을 기억하고, 지각을 해석하고(내면세계), 그러한 과정에서 다른 에이젠트와 협력하는(공감능력) 등의 발전을 하였다. 의식은 복잡한 현실세계를 바라보는 내면세계로서 이러한 진화의 산물이다.

인공지능이 의식을 갖기 위해선, 인공지능의 내면 세계를 여러 계층으로 모델링할 필요가 있다. AI응용) 인공지능 npc를 통한 삶 구현에서 해당 방법을 구체화할 방안에 대해 다룬다.

Reference

1. Kurzgesagt, "의식은 어디에서 시작되었을까"
2. Stuart Russell · Peter Norvig, "Artificial Intelligence A modern Approach"